AI戰場識別漏洞頻出以軍曾將3600人誤判為目標

2026-03-05 | 來源: 天下事 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

美軍在對伊朗的軍事打擊中首次披露使用AI輔助決策，而類似技術在加沙沖突中已被證實存在10%誤判率。

彭博社3月5日報道，能夠幫你起草營銷郵件或晚餐食譜的同一個人工智能模型，也被用來打擊伊朗。美國中央司令部在對伊朗的打擊行動中，使用了Anthropic公司的Claude人工智能進行“情報評估、目標識別和模擬戰場場景”。

報道稱，人工智能長期以來一直被用於戰爭，比如分析衛星圖像、檢測網絡威脅和引導導彈防御系統。但如今，聊天機器人正在戰場上投入使用。值得注意的是，所有這些都發生在監管真空中，而且所使用的技術是已知會出錯的。

這並非不可靠的人工智能系統首次被用於戰爭。“薰衣草”（Lavender）是一個人工智能驅動的數據庫，曾用於幫助以色列識別與加沙地帶的哈馬斯有關的軍事目標。它並非大型語言模型，而是通過分析海量監控數據（如社交聯系和位置歷史）為每個人分配1到100的評分。當某人的評分超過特定閾值時，“薰衣草”會將其標記為軍事目標。

黎巴嫩真主黨誓言將繼續同以軍作戰

接班人成"清除"目標哈梅內伊葬禮推遲

40年來首場空戰,以軍稱F-35擊落伊朗有人駕駛敵機

問題是，根據一份調查報告顯示，“薰衣草”的錯誤率高達10%。牛津大學的瑪麗亞羅薩裡亞·塔德奧教授稱，“大約有3600人被錯誤地鎖定為目標。”

倫敦瑪麗女王大學政治理論教授埃爾克·施瓦茨表示，“這些系統存在難以置信的漏洞和極端的不可靠性……而對於戰爭這樣動態、敏感且充滿人性因素的事務而言，這尤其危險。”

施瓦茨指出，人工智能在戰爭中通常被用於加快速度，而這往往會導致不希望看到的結果。決策的制定速度更快、規模更大，而人類的審查卻更少。她說，過去十五年裡，人工智能在軍事上的使用變得更加不透明。

當前關於Anthropic公司與五角大樓爭執的公共辯論——涉及人工智能在對美國人進行大規模監視或創造完全自主武器方面，什麼是合法和道德的——忽略了一個更大的問題，即這項技術如何在戰爭中使用缺乏透明度。對於這種容易出錯、新穎且未經測試的系統，透明度至關重要。塔德奧說：“我們作為一個社會，還沒有決定是否接受由機器來決定一個人是否應該被殺死。”